Ouroboros: A Self-Developing Frontier Coding Agent with Reviewed Core Evolution
Ouroboros：通过审阅提交实现自我演化的前沿编码 Agent
🧭 自我演化 Agent · 核心演化与安全控制 ★ 深度解读
Lomonosov Moscow State University · Skolkovo Institute of Science and Technology · Joi Lab · FusionBrain Lab at AIRI · HSE University
一个自我修改运行时（harness）的编码 Agent，通过审阅提交通道持续演化，在 Terminal-Bench、OSWorld 等基准上取得最优结果。
📌 工作参考价值（4 点）
- 在电商推荐 Agent 中采用经验驱动演化：把线上故障、用户反馈、任务执行痛点自动转换为改进待办，经审查后修改 Agent 的工具链或提示词，形成自我优化的闭环。
- 实施多模型审查门控对抗自我修改风险：对 Agent 主动提交的代码/配置变更进行强制 diff 审查、指纹校验和 quorum 投票，防止模型自行绕过安全约束（如越权调用 API 或改变路由）。
- 将模型路由、宪法文件、紧急停止路径设为受保护的“治理表面”，通过外部预算、操作员通道和 /panic 信号保持人类权威，避免 Agent 演化过程中削弱控制。
- 借鉴长期运行 Agent 的持久化记忆层设计：维护故障模式注册表（error class → root cause → structural fix），让推荐系统 Agent 能将一次性错误提升为结构性改进，持续提升服务质量。